Trước năm 1945, chính quyền thực dân Pháp chưa tổ chức chính quyền dưới tỉnh, mà việc cai trị vẫn do các đại lý hành chính phụ trách. Vùng Đắk Glei dưới quyền cai trị của đại lý hành chính Kon Tum, thuộc tỉnh Kon Tum.

Sau khi Cách mạng tháng 8 thành công, chính quyền Việt Nam Dân chủ Cộng hòa đã tổ chức lại tỉnh Kon Tum thành 4 đơn vị hành chính gồm các huyện Đăk Glei, Đăk Tô, Konplong và thị xã Kon Tum. Tuy nhiên, không lâu sau thì quân Pháp tái chiếm Đông Dương và mở rộng phạm vi kiểm soát lên Tây Nguyên, tái sử dụng lại bộ máy hành chính thời thực dân. Về phía Việt Nam Dân chủ Cộng hòa, do tình trạng chiến tranh, Xứ ủy Trung Kỳ và Phân ban vận động quốc dân thiểu số Nam Trung Bộ trực tiếp chỉ đạo quản lý hành chính toàn vùng Tây Nguyên. Những nay sau đó, tổ chức hành chính khu và phân khu được áp dụng.

Tháng 3 năm 1950, theo chủ trương của Liên Khu ủy V, tỉnh Kon Tum và tỉnh Gia Lai được sáp nhập thành tỉnh Gia - Kon. Ban cán sự Gia - Kon ra quyết định thành lập 7 khu (huyện). Địa bàn tỉnh Kon Tum tổ chức thành 3 khu: khu 1 (Đăk Glei); khu 2 (Đăk Tô); khu 3 (Konplong). Cách phân chia hành chính này giữ nguyên đến tận khi Hiệp định Geneve có hiệu lực.

Suốt thời kỳ Việt Nam Cộng hòa, vùng Đăk Glei thuộc quận Đăk Sút.[3]

Sau năm 1975, huyện Đắk Glei có 10 xã: Đắk Choong, Đắk Kroong, Đắk Long, Đắk Môn, Đắk Nhoong, Đắk Pék, Đắk Plô, Dục Nông, Mường Hoong, Ngọk Linh.

Ngày 18-10-1991, xã Dục Nông (nay là 2 xã Đắk Dục và Đắk Nông) chuyển sang trực thuộc huyện Ngọc Hồi.

Ngày 22-11-1996, thành lập thị trấn Đắk Glei trên cơ sở 8.750 ha diện tích tự nhiên và 3.899 nhân khẩu của xã Đắk Pék; thành lập xã Đắk Man trên cơ sở 11.600 ha diện tích tự nhiên và 1.270 nhân khẩu của xã Đắk Plô.

Ngày 13-7-2001, thành lập xã Xốp trên cơ sở 12.490 ha diện tích tự nhiên và 2.526 nhân khẩu của xã Đắk Choong.